智态°：旧金山面部识别禁令的争议仍在继续——暂时？还是永远？
编译：冷柠檬
来源：venturebeat.com
美国当地时间上周二，旧金山监管局以8比1的比例投票决定禁止市政部门（包括警方）使用面部识别软件。该禁令的支持者列举了亚马逊和微软等公司面部识别软件中涉及的种族不平等，以及目前在中国发生的反乌托邦式的监视。
围绕面部识别软件监管争论的核心问题是，在警察和政府寻求新的共识之前，禁令暂时的，还是永久的？
有些人认为面部识别软件可用于为无辜者伸冤，并且我们只是需要更多时间来收集信息。而其他人，如旧金山监督员Aaron Peskin，相信即使人工智能系统实现种族平等，面部识别也是一种“独特的危险和压迫性技术”。
在旧金山海湾大桥的另一边，奥克兰和伯克利正在考虑旧金山法令中关于使用的相同语言的禁令，而马萨诸塞州和华盛顿州（但其中亚马逊和微软反对）的州政府正讨论着要不要在AI能完全识别美国公民之前临时地禁止使用面部识别。
乔治城大学隐私与技术中心高级助理Clare Garvie将于下周三在众议院监督委员会作证。上周四，该中心发布了新的报告，详细介绍了纽约警察局拿着PS过的、跟嫌疑犯很像的一些名人的照片去抓人，以及在底特律和芝加哥使用的实时面部识别系统，并在美国其他主要城市进行了测试。
Clare Garvie
为了有机会检查警察在美国使用面部识别软件，Garvie的团队多年来一直在寻求调查和诉讼的机会，而现在他认为是时候在全国范围内暂停执法部门使用这种技术了。
Garvie和“Perpetual Lineup”报告的共同作者于2016年开始监控面部识别软件，最初得出的结论是，如果制定法规，面部识别可以用于使人们受益。但Garvie的观点发生了变化。
“我们今天看到的是，在没有监管的情况下，[面部识别]仍然继续被使用，现在我们更加了解了我们在承担多大的风险，而我们并没有完全做好准备”，”Garvie说。“根据这些信息，我们认为这项技术需要暂停，直到全社会能达成共识去规制具体的监管法则。 ”
在取消此类暂停令之前，Garvie希望看到的是系统的准确性能有显著的变化，积极的法院和法律监督能够有效到位，照片质量需要一个最低标准以及公共监控技术需要出具使用报告，就像旧金山已经要求的年度监控技术使用审核。
此外，法医草图，PS图像和名人照片不应放进面部识别软件，发布公共报告应该是常态。但想要求公开面部识别软件使用的细节一直都很困难。
例如，乔治敦大学的研究人员在2016年首次要求纽约警察局提供面部识别记录，但他们被告知没有这样的记录存在 - 即使该技术自2011年以来一直在使用。两年里纽约警察局足足翻了3,700页与面部识别软件有关的使用说明书。
Garvie认为，美国警方使用的面部识别软件是不可避免的，但应该禁止使用面部识别软件扫描驾驶执照数据库的做法。“我们以前从未有过由大多数美国人组成的生物识别数据库，但现在我们已经做到了 - 多亏了人脸识别技术 - 并且执法部门可以访问至少32个州的驾驶执照数据库，”她说。
Garvie认为，警方也应该禁止实时进行面部识别，因为警察能够在抗议时扫描人员的脸并追踪他们的位置，这样做风险太大。“ 技术的落地从根本上为执法提供了新的方法，但我认为，其风险大于益处。“加维说。
检察官和警察也有义务告诉嫌疑人及其律师，面部识别有助于逮捕行动。该建议是2016年报告的一部分，但Garvie表示，她没有以此立法或立规的司法管辖区。
“我们看到的是，关于人脸识别搜索的信息通常不会转交给辩护方，不是因为这样不符合规定，而是辩护律师并不知道他们的客户正被进行面部识别搜索，“她说。“人们被逮捕和指控，结果发现他们被捕和指控的原因竟然是人工智能“认为”他是个坏人。对我而言，这似乎是十分违背正常程序的。“
Mutale Nkonde是数据与社会研究所的政策分析师和研究员，是帮助编写“ 算法问责法”的团体的一员。该法案于上个月在美国参议院提出，要求进行隐私，安全和偏见风险评估，并由联邦贸易委员会负责监管。
与Garvie一样，Nkonde认为旧金山禁令为其他相关方提供了一个典型例子，例如布鲁克林居民目前正想把他们的房东暴打一顿，因为房东想用面部识别软件开他们的门锁。她也赞成暂停使用这种技术。
“即使禁令听起来真有吸引力，如果我们可以暂停并进行更多测试，并且审查算法，更深入地认识到他们不会涉及肤色和性别问题这一事实，那至少能达成一点共识，或是关于禁令的法律论据，并与行业进行充分地交谈，“她说。“如果产品没有市场，资源是不会被投入进来的。”
Nkonde去年向众议院介绍了“算法偏见”，但该议案可能不会很快签署成为法律，不过Nkonde仍然认为在总统选举年之前关注这个问题很重要。
算法偏见：从事程序设计的工程师，即便本身没有种族、性别、年龄歧视等倾向，也有可能造成偏见，因为我们的思维方式中多少渗透着偏见，最终影响算法的公正性
“对于立法机关中的人来说，不断加强这些想法非常重要，因为这是我们能够解决问题的唯一方式，”她说。“如果你继续看到一项法案一直是[国会]办公室里的话题，那么这个想法将会被制定成法律。”
在业务方面，Nkonde认为需要制定法规和罚款，以确保未能实现种族和性别平等的科技公司具有法律约束力。不过，她警告说，有关人工智能的公司可能会参与那种高举多样性和包容性气质的“道德洗涤”，一边谈论着迫切需要改变，但没有丝毫的进步。
“公司道德是一回事，但从我的角度来看，如果没有法律给我们的支持，那么就没有办法让公司承担责任，“她说。
一种不可挽回的技术
Nkonde和Garvie提倡暂停使用政府和警方的面部识别，而律师Brian Hofer希望看到更多政府实施永久性禁令。
Hofer在旧金山帮助创作了面部识别软件禁令，这是他在第四个海湾区市政当局帮助制定使用ACLU CCOP模型的监控技术政策。
Hofer一直在与伯克利和奥克兰的立法者交谈，在那里他担任该市隐私咨询委员会的主席。他之前因“车牌读者”事件而出名，他赞成在家乡奥克兰永久禁止面部识别软件，因为他害怕误用和诉讼。
“license plate reader（车牌读者）”事件：2001年Hofer租了一辆车，而恰好之前租车的人用这辆车做了违法的事，导致Hofer被警方误抓
“这是[奥克兰警察局]在联邦监测我们种族貌相的第16年。我们总是因某些警察里的丑闻而被起诉。我不想为这种强大的技术想象承担责任，它会破坏我们，我认为这将在很多城市发生，“霍费尔说。
更广泛地说，霍费尔希望伯克利和奥克兰能够为面部识别软件禁令提供动力，因为他认为“还有时间来控制它”。
“我坚信，这项技术会更准确，这是我更关心的问题，它将是完美的监控，”他说。“这将是一种侵入性，我们从未同意过政府。他们的权力扩张过于激进，我不认为在日常生活中走来走去，就让自己接受如此的大规模监视。“
如果禁令不能成为常态，霍费尔认为立法应该允许对软件进行独立审查并限制特定情况的使用 - 但他认为使用的泛滥是不可避免的，而大规模监视总是被滥用。
“识别绑架嫌疑人，凶杀案嫌疑人，强奸犯，真正的暴力掠夺者 - 那里可能会有一些成功案例，我很确定。但是一旦你打开门，它就会传播开来。它将全面蔓延，“他警告说。
面部识别能让世界变得更美好吗？
不是每个人都希望全面禁止或暂停实施。信息技术与创新基金会（ITIF）副总裁兼数据创新中心主任丹尼尔·卡斯特罗坚决反对面部识别软件禁令，称他们在隐私方面落后一步，更有可能将旧金山变为古巴。
“古巴人经常开的车都是20世纪50年代的汽车或摩托车，因为它们已经与世界其他地方隔绝了。像这样的禁令，而不是一种监督或缓慢的方法，逼着警察一定要使用旧技术，我认为这不解决问题，因为我认为人们更希望看到警察部队是有效的，“卡斯特罗说。
人们希望警察能够更加“有效”
ITIF是一家位于华盛顿特区的智库，专注于技术政策，生命科学和清洁能源等问题。本周，ITIF的数据创新中心加入了人工智能合作伙伴关系，这是一个由80多个组织组成的联盟，关于人工智能的使用道德，包括微软，Facebook，亚马逊和谷歌等。微软和亚马逊等公司的员工都参与其中。
卡斯特罗认为警察部门需要对自己的系统进行更多的性能准确性审查，并制定最低的性能标准。与Garvie一样，他同意需要最低照片质量标准，但他同样认为不应过度使用使用面部识别。
他还认为警察制度的改革也可以利用好面部识别软件。“我认为警察部门有机会积极努力，用软件代替人工，也就用中立代替了（可能存在的）的偏见，改善他们与边缘社区的关系， - 使用面部识别来帮助解决其中的一些问题。我认为这个工具是中立的。它当然也可能加剧这些问题，但我认为不一定总会这样，“卡斯特罗说。
Veritone是一家向美国和欧洲的执法部门销售面部识别软件的人工智能公司，该公司也认为该技术可以实现更好的社区关系，并且它将用于为无辜的嫌疑人脱罪，而不是导致错误的定罪。
“这个星球上最有偏见的系统是人类，”Veritone首席执行官Chad Steelberg在电话采访中告诉VentureBeat。
与Hofer和Garvie一样，Steelberg认为，警方在公共场所使用自动化实时面部识别功能，如目前在底特律使用的系统，不应该被允许监控未犯罪的人的日常生活，也就是说，该工具可用于侵犯公民权利和集会和言论自由。
但他也认为可以负责任地使用面部识别来帮助解决一些人类最棘手的问题。“人工智能的好处与你所读到的大部分内容相悖。这是一个提供真实事实，没有偏见和人文背景以及社会影响的系统，“他说。“而且我认为这对于执法部门和社会其他许多破碎部分都是必要的。从完全的角度来看，禁止这项技术似乎是一种绝对愚蠢的做法，而且我认为更为周到的立法是必要的。“
随着越来越多的城市和立法机构对面部识别软件都发布了禁令或临时禁令，旧金山的裁决显然只是个开始。然而，社区和立法者既然选择撰写法律来解决问题，那么这些辩论必须保持深思熟虑并符合主流价值观，因为尽管宪法中有民权保障，但没有人会天真地认为，在美国，没有人在暗地里用面部识别进行大规模监视。
《美国队长2》中的洞察计划，DNA直接匹配到“敌人”进行击毙
往期精选
- 加入社群吧 -